Sau khi cuộc khởi nghĩa Lam Sơn thành công (1428), "vì binh lửa, số thơ (của các thi gia) còn lại chỉ được một hai phần nghìn",[2] cho nên Phan Phu Tiên (lúc bấy giờ đang làm việc ở Viện Quốc Sử) bèn ra công thu thập lại, đến năm 1433 thì hoàn thành.[3] Sau đó, ông đặt tên sách, viết lời tựa và định đem khắc in thì được bổ làm An phủ sứ ở Thiên Trường (Nam Định ngày nay), rồi ở Hoan Châu (Nghệ An-Hà Tĩnh ngày nay), nên đành phải gác lại.

Năm 1446, Thị ngự sử Chu Xa nhận thấy "Việt âm thi tập do quan làm sử trước kia là Phan Phu Tiên biên soạn còn chưa được đầy đủ",[4] vì thế đã ra công sưu tập thêm, đến năm 1459 thì xong, được Lý Tử Tấn viết tựa, hiệu chính và điểm lời phê bình, và được vua Lê Nhân Tông cho phép in vào năm đó.

Về sau, khi các bản khắc lần đầu đều thất lạc hết, một nhóm người có tâm huyết[3] đã cùng nhau cho khắc in lại (1729), nhưng cũng không giữ được. Hiện nay, ở Thư viện Viện Nghiên cứu Hán Nôm (Hà Nội) chỉ còn lưu giữ được một bản nhưng không đầy đủ (chỉ còn 3 quyển), mang ký hiệu số A. 1925.[5]

Căn cứ bài biểu dâng sách của Chu Xa, thì Việt âm thi tập gồm 6 quyển,[6] với 624 bài thơ[7] của 119 nhà thơ dưới các triều đại, từ Trần đến Lê sơ. Có thơ của người làm quan và không làm quan, của người Việt Nam làm quan ở Trung Quốc và của người Trung Quốc đi sứ sang Việt Nam. Mỗi nhà thơ đều có chua tiểu sử, và sau mỗi bài đều có chua điển tích. Tuy nhiên, theo lời của Lý Tử Tấn, thì sách có hơn 700 bài. Chưa rõ vì sao có sự chênh lệch đó.[3]

Về phương pháp, từ sắp xếp đến trình bày, đều theo quan điểm Nho giáo, có nghĩa các tác gia là vua thì được để lên đầu, sau đó mới tới các thi gia thuộc các tầng lớp khác.